连色情网站都不敢碰的禁区：ZAO正在疯狂试探！

你ZAO吗？

一夜“成”明星不再是梦。

从上周末开始，一个名为“ZAO”的AI换脸App忽然火爆全网，用这款App制作的换脸视频在微博、朋友圈随处可见。

只要一张照片，想附体谁就附体谁！▼

ZAO在第一个公开版本发布不到24个小时里迅速蹿红，不仅在社交媒体上刷屏，更登上苹果iOS免费榜第二，微博热搜话题榜前十，堪称“现象级”。

而这个刷屏的背后，其实与我们每一个人的生活都息息相关。

01

陌陌打造，技术用于情色视频

ZAO最大的噱头是和明星“换脸”，并且嵌入短视频中，可下载后传播，用于社交娱乐。

而“ZAO”是由著名线上交友软件“陌陌”团队打造，两位实际控股股东都是陌陌公司的高管。

值得一提的是，ZAO的开发商显示为“长沙深度融合网络科技有限公司”，而陌陌创始人兼CEO唐岩本人就是湖南人。

网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络 

网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络配图网络 

不过，其实AI换脸视频并不是新鲜事了。

换脸技术七八年前就有了，比如电影《速度与激情7》里，保罗沃克就是用AI技术合成的，花费了千万美金。

但民间的换脸软件，因为逼真程度较差，反响一般。法律咨询微信bestfch001.直到2017年12月，一名ID为Deepfakes的码农大牛，在Reddit网站上上传了一段“名人AV”视频。

当时，“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。

而他随后也制作了一系列“明星AV”合成视频。

但是很快就出现了问题。

比如DeepFakes把希拉里和特朗普做成夫妻的，把他俩脸做在一起的，把他俩做到色情片里的，玩法多种多样。

人们的智慧是无限的，只要有工具出来，就一定会给玩出花样来，而且早期的花样一定不够高尚而且低俗色情的。

由于尺度过大，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码——完全免费公开。

在代码开源后，AI换脸技术已经有如普罗米修斯盗来的火种，一瞬间撒遍了世界各地。

一下子人人都成了AI换脸专家。

只要稍微懂一点技术的人，都可以使用他们的技术来套层壳来玩儿，ZAO也是诸多衍生APP之一。

ZAO运用的是Deepfake技术，但是Deepfake的相关App在国外因为道德、伦理和隐私问题已经被禁用；

但在我们国内，在这个色情网站都不敢触碰的AI禁区，ZAO却可以大张旗鼓的商业应用。

不知道玩ZAO的用户知不知道，在你玩这款APP的时候，自己脸部数据已经上传到企业服务器，可以卖钱的。

02

吃相难看的用户协议

因此，这款APP看似有一张有趣的皮囊，但其灵魂并不好看。

我们平时并不会多看上一眼的用户协议中的隐藏着巨大猫腻，以及让人无法接受的法律风险。

为什么我会这么说，首先我们先来看看ZAO的用户协议。

用户协议第6条第1款是这样规定的：

这密密麻麻一大段话是什么意思呢？

意思是，当你选择使用这个app以后，根据协议内容，该app除了可免费使用并修改你的肖像，还可以将它任意授权给自己想授权的第三方，当做信息进行贩卖。

所以当有一天，你在ZAO或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候，你想起诉ZAO，不好意思，它会拿出这个协议来堵你的嘴，告诉你你自己早已同意。

其次，我们再来看看关于侵权的规定。法律咨询微信bestfch001.第6条第2款明确规定：

这又是什么意思呢？

比如现在你将杨幂的脸换成自己的脸，你除了要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用，还要保证杨幂同意ZAO及关联公司使用她的肖像...

但是问题来了，你又不认识杨幂，你怎么能确保？这不是在搞笑吗？

而它这么写，说白了，就是因为自己没钱拿到明星们的授权，为了日后侵权的问题，它通过这个协议，可以将锅甩给你们。

而在此情形下，协议第七条第7款规定：

这条意思就是延续上一条，如果杨幂状告ZAO，主张自己的肖像权被ZAO平台滥用，那ZAO完全可能说这不怪我，技术无罪，要怪就怪这些换你脸的用户，并且，即使ZAO承担了平台责任，其也完全可以起诉具体用户进行追偿。

对于这样的用户协议，我只能说吃相未免太难看了点，他们把自己的屁股擦得非常干净，将侵权的苦果全部甩给了用户。

所以，现在你们明白了吗？

你今天在网上换脸，觉得很开心，其实你在无形中，已经成了一名你最不齿的侵权人。法律咨询微信bestfch001.更惨的是，你的脸，也不再只属于你自己，它也归ZAO，及它想授权的所有人。

更感到后怕的是，截至我发这篇文章，已经不知有多少用户同意了这份吃相难看的协议，丧失了自己的肖像自主权。

而我选择将用户协议分析给你们，也只是希望你们能将这篇文章转发给所有对这个app感兴趣的人。

因为他们很有可能在不明所以的情况下，就对app进行了使用，同意了协议。

你可能以为只是在用户协议那点了个小小的勾，但你在点确定的一刹那，你已经无形之中丧失了很多本属于你自己的东西。

而这些东西，其实是你无比珍视的“脸面”。

03

AI技术的“潘多拉魔盒”

除了利用协议进行漂亮的肖像权风险的转嫁外，还有一个值得我们探讨的就是——

技术真的是无罪的，中立的吗？

似乎是，至少很多技术的开发者自己是这么认为的。

快播的王欣在法庭上那句“技术是无罪的”言犹在耳，谷歌的态度更具代表性和普遍性：重视道德责任，但如果对新技术严加限制，可能会让延缓开发出一些对人类有益的用途。

而DeepFakes的开源，更是打开了“人脸识别技术”的潘多拉魔盒。

这种无缝替换人脸的技术，在黑产可以玩出无数的花样。

例如诈骗，使用这项技术无缝把老人子女的脸融入视频中，不管是生病要钱，还是绑架，还是转账，都很容易骗到老人。

例如敲诈，使用这项技术把受害人脸加到一些黄色视频中，然后威胁不给钱就群发散布，实际上很多高利贷的催收就喜欢这么玩，只不过过去的P图不够震撼。

在这种情形下，如果研发人员说，他们不对技术的伦理负责，只想赚钱；如果使用者说，他们不想检讨技术的阴暗影响，只为好玩。

那么我们指望谁来促成技术、法规和使用需求的良性耦合呢？

2019年6月13日，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。法律咨询微信bestfch001.这是美国众议院首次举办专门讨论深度伪造及其他类型的AI合成技术的听证会。

而未来，AI深度伪造会发展成什么样，给我们的生活造成什么影响，AI究竟是普罗米修斯的火种还是潘多拉的魔盒。

我们目前不得而知。

04

不容忽视的AI伦理

百度李彦宏曾经“大无畏”地说了实话——中国的互联网用户们“愿用隐私换方便”，而被口诛笔伐。

但是现在想想又何尝不是呢？

我们一边吐槽条款，一边抱着“反正这么多人用，暴露隐私也轮不到我”的心态，享受着软件带来的朋友圈流量、点赞、虚荣。

我们正在渐渐的，忍受着各种APP窃取我们的短信、通讯录、照片，甚至是我们的位置。

我们允许它们偷听我们的谈话，偷偷的打开我们的摄像头，看看我们是否裸睡或者甜言蜜语。

我们更允许这款ZAO，要了我们的“脸面”，然后，满足我们意淫的快感，和所谓的“李现”进行虚拟对戏。

然后，在图了各种便利和爽快后，我们的“脸面”也被廉价的搜集了。我们在悄然不断的把我们所有的隐私都泄漏了。

你的一次次放纵和贪图方便，已经把你自己的“脸面”、“指纹”、“声波”、“心率”、“视网膜”、“基因”等等，都被廉价的贩卖给了大数据。

然后大数据比你自己还懂你。

它引导你每次冲动的消费行为。

它控制你每次兴高采烈的点击购买。

它驱使你悄悄的贩卖自己一切可以贩卖的东西。

《天龙八部》里的扫地僧说，少林七十二绝技每练一技都需要相应的佛法才能化解，而要把七十二绝技学成于一身需要极高深的心法修为，萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。

技术发展日新月异，对人性的反噬潜移默化，人的修为跟得上AI吗？

昨天还是一键美颜，今天就能一键换脸，明天会不会一键生成个人虚拟形象？

现在，我们要为分辨色情视频中的明星的脸是不是合成的。

未来某刻，我们可能就得分辨眼前的人究竟是不是自己，究竟是不是亲人，而不是一个虚拟的合成。

看着朋友圈那一张张被换掉的脸，浮现出福柯在《词与物》结尾的话，“人将被抹去，如同海边沙滩上一张脸的形象那样被抹去。”

在未来的AI年代，我们每个人最大的问题或许会是——

你是谁？

我又是谁？

---

《深度揭秘：霍英东与李嘉诚（附真实照片）！》（点击可阅读）

感谢转发分享！

---

推荐阅读：